警惕新“造神”运动——人工智能的神话与陷阱

英国思想家艾德蒙·柏克说：“人是天生的宗教生物”。作为有限的个体，我们对至善和永生的渴望，我们对苦难和死亡的恐惧，都支配着我们的生活，贯穿了我们一生。宗教激情是人的本能，这种本能往往会强大到压制人的理性。

如伏尔泰所说：“即使没有神，也要造出一个神来”。“崇拜”与“造神”是刻在人类心灵与文化基因中的东西，也是任何人类群体的必然产物。因为，“神”可以为世界提供意义与秩序，可以成为人类模仿、追随的“偶像”。大多数时候，人们宁愿造出假神，也不能容忍一个没有神的精神世界。

危险的造神运动

从思想观念的角度来看，人类历史就是“造神运动VS偶像坍塌”交替上演的历史。到21世纪，人类分别经历了政治造神、宗教造神和科技造神。被人们造出来的“神”，每一个都威力巨大、贻害无穷，动辄将几亿人卷入战争，将整个种群变成奴隶。

古今中外的政治造神运动，都难逃“周公恐惧流言日，王莽谦恭未篡时”的结局。宗教的造神更是沦为笑柄。科学理性发展到今天，倘若仍有人跳出来自称“救世主”、“大先知”、“保惠师”……那一定是骗子或者精神病患。

可见，对于宗教造神、政治造神，人类已经有了足够的能力去鉴别、防范。并且，这些被造出来的偶像一旦坍塌，人们都乐见其成，置身事外——真正让人难以鉴别、防范，又让人无法置身事外的，是“科技造神”运动。

我们无法拒绝科技，因为科技实实在在地造福了人类。在当今世界，科技意味着物质财富、发展优势，科技带来了更多的安全健康、精神娱乐，科技决定了人类的未来……‍‍

然而，人类对科技的认识还极其肤浅。科技也可以毁灭人类、奴役人类。不幸的是，我们们被裹挟其中，也乐于沉溺其中。可以毫不夸张地说，“科技造神”是当前危害最大、最隐蔽的一种造神。

人工智能神话的兴起

在当今世界，最大的“科技造神运动”是什么？恐怕非“人工智能”（AI）莫属。数年前谷歌的阿尔法系列，近期Open AI的大规模语言模型Chat GPT，人工智能的话题炙手可热，每隔几天都有新的热点上头条。

俗话说，“风口来了，猪都会飞”。伴随着人工智能运动的兴起，各种神话甚嚣尘上：“第四次工业革命”、“下一个数字财富增长点”、“启蒙运动后最大的智识革命”、“无数人即将失业”、“人类意识将变成数据”……

兴奋、焦躁、功利、忧虑、恐慌，混乱地交织在一起，人们忽略了最重要的问题：人工智能的本质究竟是什么？人工智能真的有那么厉害、那么重要吗？占据先机的人会成为下一个盖茨、马斯克，还是下一个笑柄和殉道者？对人工智能的意义，对人类的未来究竟意味着什么？

在人工智能神话炙手可热的当下，我们急需一部提升智识、祛除迷思的著作。而且，作者绝不能是挤占风口的门外汉，更不能是居心不良的收割者——能够讲清楚人工智能的来龙去脉，褪去人工智能的假面，捍卫人的价值尊严。

美国学者埃里克·J·拉森的《造神:人工智能神话的起源和破除》，正是这样一本“逆时代潮流”之作。与马斯克一样，他不仅是与顶尖的科技企业家，也是一名兴趣广泛的科学家。他致力于计算机科学的前沿研究，亲眼见证、亲身参与了人工智能的兴起，更难得的是，他还有着深厚的古典人文功底。这本书对人工智能“造神运动”所展现的洞见和批判，对于乐观或焦虑、业内或业外的人，都是极其应时的醒脑之作。

破除人工智能的四大神话

拉森说：“现有的人工智能技术，只是对人类深层思想的肤浅模仿。对人工智能过分夸张，其实是一种技术媚俗。媚俗左右着我们的思考和感受；媚俗为生产者带来利益，却使消费者蒙受损失；媚俗使我们陷入一个肤浅世界”。

神话一：人工智能很智能

Chat GPT的确有很强的语言输出能力，也显示出了某种“对答如流”的应对能力。但事实上，人工智能远比人们想象的更愚笨。

没有洞见。Chat GPT的语句输出规则，源自字与字之间概率链接的统计结果，其根本原理并没有超出一般的统计学规则。但是正如哈耶克指出的，一般的统计学原理不能产生新知识，因为新知识都是统计中的“野点”，就是人们熟知的、塔勒布提出的“黑天鹅”。（推荐阅读——世纪思想家《哈耶克去世30年，世界却更需要他》）‍

推理能力差。面对同类型的问题，没有训练过的语句GPT就说不出来；它也不能依据一般推理原则“举一反三”，甚至基于算法，它明明不知道，照样胡说一气。

人文素养差。Chat GPT是基于大规模生成式语言模型，它的数学能力很差不足为奇。但事实上，Chat GPT人文素养其实也很差。在与正常人沟通的时候，Chat GPT几乎不能发现提问者话语的意向性、潜在文本下的情绪，表达也只是简单、生硬、机械般地鹦鹉学舌。我们可以说，它是一台没有“常识”的机械人。

也就是说，人工智能的行为，最终由训练数据及其算法决定，而人工智能自身并不理解自己在做什么。所以Meta的首席AI科学家杨立昆才会感叹：“科学家不该训练一台学习了大量人类知识的机器，而是让AI系统去理解人类世界的运作原理”。

神话二：人工智能很高效

人工智能对话的时候，在很短时间就能输出很多文字，给人一种很高效的错觉。事实上，这种“高效”不仅漏洞百出，而且很难持续。

人工智能的知识总量，远远落后于真实世界。大规模模型的训练，需要海量数据，但人类诸多宝贵知识，其实根本不能数据化，比如很多经典古籍，并没有pdf文本。模型现有的可训练数据，只占了人类知识总量的很小一部分。哈耶克早就指出，人类社会运转所需的知识都是分散的，不能通过中央系统数据收集而来。

最重要的知识，无法量化或传递。与哈耶克、波普尔齐名的哲学家迈克尔·波兰尼，早就指出，人类社会存在大量无法量化、无法言说，甚至无法传授的“缄默知识”，比如驾驶技术、烹饪技艺、艺术家和科学家的灵感……这些恰恰是人类最丰富、最重要的非书面知识，连人类自己都无法归纳和复制，更何谈人工智能。

训练人工智能的模型，成本很高。据测算，训练GPT-3耗用了1.287吉瓦时电量，大约相当于120个美国家庭1年的用电量。同时，这样的训练产生了502吨碳，相当于110辆美国汽车1年的排放量。而且这种训练只适用于一个程序或是“模型”。AI模型也在变得越来越大，Open AI的GPT-3使用了1750亿个参数或变量。

简言之，无论是知识总量、知识质量，还是学习的速度与成本，人工智能和人类智力都不不可同日而语。

神话三：人工智能很复杂

航空界有句名言，人类不是通过模仿鸟类飞翔，而是掌握了空气动力学，才发明了飞机。伟大的发明，往往不是来自简单的生物仿生，而是源自掌握了其底层科学规律。

直至今日，人类对人脑工作原理的理解几乎为零，对自己“意识”的理解也少得可怜。也就是说，人工智能距离人类的思考、意识还不能模仿，更别说造出一个更强的大脑。

目前流行的人工智能，大部分都采用一种名为“神经网络深度学习”的统计算法，只是一种形式上对人类大脑神经元架构的拙劣模仿。其工作原理只是“像”人脑运行机制。人工智能算法貌似很复杂，其实仍未超出统计学的应用。

拉森在《造神:人工智能神话的起源和破除》就一针见血地指出，当前所有最前沿的脑科学，对人脑工作原理的解释，如“数据拟合”“模式识别”“乐高积木”，实际上都只是“对人脑运作模式的简化想象”，与真实的、复杂的人脑工作原理，根本就不能比拟。

神话四：人工智能很“革命”

很多人吹嘘，AI技术取得了革命性突破，“机器像人一样思考”就要实现。还有人发出警告说，“机器奴役、屠杀人类的时代已经不远了！”但是拉森在书中说，这些大多是无知的危言耸听，也有人是为了吸引投资。

这一次，人工智能虽然取得了很大的进步，但就其表现而言，还完全停留在局部特定领域下的具体应用场景。一些应用的确展现了新奇的样式，但远谈不上某种“革命”，离通用人工智能更是天壤之别。

所谓“通用人工智能（AGI）”，就是让机器完全像人一样，在所有领域都能实现人类的智能，这相当于人类用机器再造生命。

从基础科学突破，到真正的技术突破，其过程究竟多么艰难？“人类第N次科技革命”，究竟有没有衡量标准？美国科学哲学家托马斯·库恩在其名著《科学革命的结构》中告诉我们——凡是颠覆式的技术或工业革命，一定起于科学范式革命之后：

第一次工业革命，源自牛顿力学对亚里士多德力学范式的革命；第二次工业革命，起源于电学、磁学、化学新科学对传统科学的范式革命；第三次工业革命，起源于量子力学、生物学、核物理学对牛顿力学的范式革命。

但是当前的AI技术，从其底层技术逻辑而言，依然是传统三基石——算法、算力和数据的堆积，并没有新的范式革命。

甚至通用人工智能在理论上能否实现，多大数专业人士也表示怀疑。比如L4级别以上的自动驾驶，很多公司实际上已经放弃研制了，只专注于特殊场景下完全脱离监督的L3级别自动驾驶。

人工智能神话的四个危害

就像所有速朽的技术概念一样，AI最大的危险其实不在于技术本身，更在于人们对它的歪曲、神化和滥用。拉森在书中指出，人工智能实质就是某种数据科学，它充其量只是充当类智能的“假体”，使用得当，可以帮助我们应对“数据洪流”，使用不当，就会侵蚀人类智能和创新文化，而后者无疑是现代人重要的财富。对人工智能的过度追捧，至少有四个危害。

危害一：戕害创新文化，阻碍科学研究

人工智能的一切产出，都源自旧有经验的统计算法而来，严格意义上说没有产生任何真正意义上的“新知识”。正如拉森在书中所言：“健康的创新文化强调探索未知，而非宣扬已有的方法”。

对人工智能的过度追捧，首先是抹杀了真正带来进步的主体——创新精神。鼓动“算法机器”在各个领域蔓延，就会使真正的创新被边缘化。

正如作者拉森在书中封面所言：“我们进入了一个技术媚俗时代，只有破除人工智能的迷信，才能迎来真正的科学进步”。

危害二：舍本逐末，贬低人性和人的智能

英国伟大剧作家莎士比亚曾在《哈姆雷特》一剧中，用抒情诗般的美丽语言，讴歌人类——“人类是多么了不起的杰作！高贵的理性，伟大的力量，优美的仪表，文雅的举动！行为像天使，智慧像天神！宇宙之精华，万物之灵长！”

人类为什么能够成为万物之灵长？人的高贵和伟大，不在于肉体能力，而在于我们的思想观念、精神气质。

现有的生物学、脑科学等前沿学科认为，人类的特殊之处，并不在于其计算能力，而在于人类具备强大的特殊“智能”——

常识能力。作者拉森引用科学哲学家迈克尔·波兰尼观点，认为人类有大量不可量化、说不清楚的默会知识，比如我们其实根本不理解我们是如何学会骑车的。

推理能力。作者拉森大力赞美国实用主义哲学家皮尔士的观点，认为人类除了具有归纳推理与演绎推理能力，最特殊之处在于，具备溯因推理能力，比如我们看到地面湿了会大胆推测昨天下雨了；

人类还有迁移能力（举一反三）、情感能力（存在某些特殊偏好）以及合作能力（信任他人、语言交流）……

正是这些人的特征，让人成为人。人工智能的出现，恰恰衬托出人类理性、智能的伟大。如果把依靠算法、算力、数据工作的计算机，视为比人还要丰富、伟大的事物，这无疑是漠视人类的智能，贬低人的价值尊严。

危害三：造就非人化的社会

十八世纪法国医生、哲学家朱利安·美特利，基于当时的物理学与医学成就，曾发出过“人是机器”的论调。他认为活物质和死物质之间没有明显区别，人和动物乃至世间一切事物，都遵循牛顿力学运动规律，并不是什么特殊的存在。

这种把人物化的思维，曾把人类代入“非人”的时代，人类开始像处理动物、矿物一样，对待人类同胞：大屠杀、优生优育学、工业化流水线……20世纪的一名企业主就曾说：“我明明雇佣的是一双手，可为什么却来了一个人？”

即便脑科学、神经科学等复杂科学仍在发展，人类仍然很难回答“人是否有灵魂”这样的问题。但是历史、情感和良知的事实，却已经毫无疑问地证明了——把人简单的看成“耗能极低的机械”、“细胞的堆积物”，这既是对人类的蔑视，也是对科学的无知。

这一波“人工智能造神运动”的鼓噪，使得“人是机器”的叫嚣再次高涨，有人甚至主张：“人类的思维、意志和情感，无非就是神经元基因某种算法加总而成”。在书中，作者拉森多次引用约翰·密尔的名言“人的本质不是机器”，就是为了驳斥“人工智能造神运动”所渲染那种“非人”的观念。

危害四：导致集全主义回潮

过去四百年，随着科学理性的兴起，那些妄称救世主、愚弄大众的宗教造神运动，越来越被人唾弃。上世纪以来，政治造神运动此起彼伏，随着人们对其认识越来越深刻，尊重个人、保护私产的限正法治，已经成为了世界潮流。‍

最近几十年，随着互联网“知识平权”的展开，人与人之间的“信息鸿沟”被一次次被抹平，人们一度乐观地以为，“去中心化”的开放社会已经成型。即便这不是人类社会的终极形态，将来也一定是个更加自由、繁荣的良序社会。

但是，伴随着人工智能的兴起，“数字乌托邦”、数据中心主义开始大行其道。当它们与宗教造神、科学造神融合之后，极有可能使我们复归集全主义社会。

权力的嗅觉总是非常灵敏，它们不会放过任何扩张的机会。它们会宣称：人工智能非常重要、非常强大，事关族群命运、国民生存；让私企掌控人工智能是危险的、没有前途的……

《美丽新世界》中“福特纪元”最终没有实现，但某种更加集权化的“数字纪元”可能已经不久远了。就连汤姆·克鲁斯最新上映的《碟中谍7》，这样一部纯粹的商业电影，都对此发出了警告，一个“权力无所不能”的社会就要再次降临。

但是，人们对此仍然懵懂无知，甚至心向往之。拉森发出深深的感叹：“重视人类个体潜能的观念已逐渐衰退”。

很多缺乏政治敏锐、痴迷宏大叙事的人，喜欢生造“蜂巢思维”、“巨型大脑”等新词，来夸大人工智能的作用。但是在拉森看来，这些“新词”其实就是集体主义、集权主义，无论它们披上了怎样的“科学外衣”。在书中，拉森对“数字集权崇拜“提出了尖锐的批驳——忽视个体价值，强调整体决策，迷信统计，忽略灵性……

所有的造神运动，都源自恐惧、贪婪和懦弱。在“人工智能造神运动”如火如荼的今天，一个被现代科技裹挟向前的人，如何才能保持“人之为人”的理性、尊严与独立？先知书店诚挚推荐独家书《造神:人工智能神话的起源和破除》，本书恰似为以上需求量身定制：

‣一本书读懂人工智能的陷阱与未来

有人说，人工智能是下一个知识分化、财富分层、国运兴衰、生命形态的分岔路口。也有人说，人工智能崛起之时，就是人类灭亡之时。这些耸人听闻的断言，无疑凸显了人工智能热潮下，人们的盲目、功利、焦虑和沮丧。

本书是一本严肃、通俗、生动的科普读物，梳理了人工智能起源、发展、风险和前景，是一本当代人亟需的应时佳作。另外，本书分别从文学、哲学、脑科学、政治学等视角审视人工智能，对某些流行的“新理论”做出了尖锐的批评，还涉及到神话、信仰等终极命题的思考。本书笔调流畅，翻译绝佳，非专业人士读起来毫无生涩，而业内人士读起来也大有收获，

‣前沿科学的反思&古典人文的关怀‍‍‍‍‍‍‍‍

关于人工智能的书，市面上多如牛毛、良莠不齐，但大多陷入技术细节的梳理，还有的就是制造焦虑、渲染情绪、趁机收割。本书作者是计算机科学的前沿学者，也是与美国名校合作的科技企业家。最难能可贵的是，作者能将扎实的专业知识、深厚的人文学养融会贯通，读起来是一种涵养的提升、美的享受。

‣揭破神话，做一个清醒的现代人‍

作者对“人工智能造神运动”的抨击，并不是否定科学，恰恰相反，本书不仅是对科学精神的正本清源，也是对各种“造神运动”的警告，对于深陷政治造神、宗教造神的人们，也是帮助他们“敲破偶像”的案头教材。点击图片链接或识别二维码，即可一键购买、收藏独家新书《造神：人工智能神话的起源与破除》（还可一键购买收藏“三大造神书单”）。

策划：先知书店

文稿：万壑松 千字君
编发：先知书店店长

排版：刘淘淘Range

美术：煜杨 

▌延伸阅读